«И когда Он снял четвёртую печать, я слышал голос четвёртого животного, говорящий: иди и смотри. И я взглянул, и вот, конь бледный, и на нём всадник, которому имя «смерть»; и ад следовал за ним; и дана ему власть над четвёртою частью земли — умерщвлять мечом и голодом, и мором и зверями земными.»— Откр. 6:7-8..
...«Элиезер Юдковский, один из главных экспертов по ИИ, призывает бомбить датацентры, чтобы остановить развитие нейросетей и спасти человечество.Рационалист и автор книги «Гарри Поттер и методы рационального мышления» почти 20 лет проводит исследования и стремится создать дружественного ИИ. Он не утверждает, что GPT–4 вызывает опасения — потенциально опасными могут стать нейронки через несколько лет.Очень необычно его недавнее интервью для Time. Юдковский считает, что письмо, которое подписали Стив Возняк, Илон Маск и другие лидеры, уже не поможет — нужны более радикальные меры.Отключить все крупные датацентры, установить предел вычислительной мощности и отрубить обучающие программы. Если датацентры нарушают правила — нужно «уничтожить их авиаударом».

( Читать дальше )

Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области ИИ, опубликованном 22 марта на сайте некоммерческой организации Future of Life Institute («Институт будущего жизни»).

«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в письме.

Подписанты полагают, что лаборатории ИИ и независимые эксперты должны использовать эту «передышку» для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.

( Читать дальше )